Năm 1713, Gottfried Leibniz đề nghị thành lập một viện hàn lâm theo kiểu Hội hoàng gia Luân Đôn và Viện Hàn lâm Khoa học Pháp. "Kaiserliche Akademie der Wissenschaften in Wien" (Viện hàn lâm Khoa học hoàng đế ở Vienne) cuối cùng đã được thành lập ngày 14.5.1847 do Giấy phép của hoàng đế Áo.

Viện đã sớm bắt đầu nghiên cứu sâu rộng. Trong ngành khoa học nhân văn, viện bắt đầu nghiên cứu và xuất bản các nguồn lịch sử quan trọng của Áo. Nghiên cứu trong khoa học tự nhiên cũng bao quát nhiều chủ đề.

Năm 1921 luật liên bang của Đệ nhất Cộng hòa Áo mới thành lập bảo đảm nền tảng pháp lý của Viện, và từ giữa thập niên 1960 trở đi Viện này trở thành cơ quan lãnh đạo của nhà nước trong lãnh vực nghiên cứu ngoài đại học.

Viện cũng là một hội học giả. Những viện sĩ cũ của Viện gồm những người nổi tiếng như Christian Doppler, Theodor Billroth, Anton Eiselsberg, Eduard Suess, Ludwig Boltzmann, Paul Kretschmer, Hans Horst Meyer, Roland Scholl, cùng những người từng đoạt giải Nobel như Julius Wagner-Jauregg, Victor Hess, Erwin Schrödinger và Konrad Lorenz.[1]